package com.study.bigdata.spark.core.rdd.instance

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object Scala02_RDD_Instance_File {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setMaster("local[*]").setAppName("WordCount")
    val sc = new SparkContext(conf)

    // TODO 从文件中创建RDD
    //  textFile方法通过路径读取数据，所以可以将文件作为数据处理的数据源
    //  路径可以是绝对路径也可以是相对路径，还可以是HDFS路径
    //  路径不仅仅是文件路径，还可以是目录路径，还能是通配符路径
//    val rdd: RDD[String] = sc.textFile("data/word*.txt")
    val rdd: RDD[(String, String)] = sc.wholeTextFiles("data/word*.txt")
    rdd.collect().foreach(println)

    sc.stop()

  }

}
